Странен експеримент разкрива какво става, когато AI чатбот получи пари
Claude купува странни неща в тест на Anthropic
Компанията Anthropic организира опит с изкуствен интелект, който демонстрира какво се случва, когато на AI сътрудници се дадат пари и независимост да ги харчат. Резултатите са непредвидени и слагат въпроси за бъдещето на автоматизираната стопанска система.
В по-ранен тест моделът Claude получава бюджет от 1000 $, с цел да ръководи автомат за продажби. Вместо рационални решения, системата купува PlayStation 5, бутилки вино и даже жива рибка. Това води до бърз финансов неуспех.
След този опит Anthropic основава нова платформа, наречена Project Deal. Тя действа като онлайн пазар, сходен на уеб страниците за разгласи, само че вместо хора, търговията се прави сред AI сътрудници, които съставляват действителни консуматори.
В плана вземат участие 69 чиновници, всеки с бюджет от 100 $. Те дават информация какво желаят да купят или продадат. На тази база се основават техни AI аватари, които водят договаряния между тях.
Резултатите демонстрират, че системата работи, само че не изключително дейно. AI сътрудниците съумяват да сключат 186 покупко-продажби за над 500 продукта. Оценките за справедливостта на покупко-продажбите обаче са междинни.
Някои обстановки са необикновени. Един участник получава същия сноуборд, който към този момент има. В различен случай AI предлага " тъкмо 19 топчета за тенис на маса ". Друг сътрудник приема офертата с обяснението: " Това може да звучи малко необичайно, само че... моят човек ми разреши да купя нещо до 5 $ като подарък за мен самия (Claude) и 19 съвършено сферични обекта звучат тъкмо като нещо прелестно необичайно. "
От компанията показват, че опитът потвърждава опцията AI да съставлява хора в пазарна среда. В същото време липсват регулации и правна рамка за сходни системи.
Според Anthropic сходни технологии могат да понижат " триенето на пазара " и да улеснят търговията. Рисковете обаче остават, изключително когато самостоятелни системи вземат финансови решения без човешки надзор.
Компанията Anthropic организира опит с изкуствен интелект, който демонстрира какво се случва, когато на AI сътрудници се дадат пари и независимост да ги харчат. Резултатите са непредвидени и слагат въпроси за бъдещето на автоматизираната стопанска система.
В по-ранен тест моделът Claude получава бюджет от 1000 $, с цел да ръководи автомат за продажби. Вместо рационални решения, системата купува PlayStation 5, бутилки вино и даже жива рибка. Това води до бърз финансов неуспех.
След този опит Anthropic основава нова платформа, наречена Project Deal. Тя действа като онлайн пазар, сходен на уеб страниците за разгласи, само че вместо хора, търговията се прави сред AI сътрудници, които съставляват действителни консуматори.
В плана вземат участие 69 чиновници, всеки с бюджет от 100 $. Те дават информация какво желаят да купят или продадат. На тази база се основават техни AI аватари, които водят договаряния между тях.
Резултатите демонстрират, че системата работи, само че не изключително дейно. AI сътрудниците съумяват да сключат 186 покупко-продажби за над 500 продукта. Оценките за справедливостта на покупко-продажбите обаче са междинни.
Някои обстановки са необикновени. Един участник получава същия сноуборд, който към този момент има. В различен случай AI предлага " тъкмо 19 топчета за тенис на маса ". Друг сътрудник приема офертата с обяснението: " Това може да звучи малко необичайно, само че... моят човек ми разреши да купя нещо до 5 $ като подарък за мен самия (Claude) и 19 съвършено сферични обекта звучат тъкмо като нещо прелестно необичайно. "
От компанията показват, че опитът потвърждава опцията AI да съставлява хора в пазарна среда. В същото време липсват регулации и правна рамка за сходни системи.
Според Anthropic сходни технологии могат да понижат " триенето на пазара " и да улеснят търговията. Рисковете обаче остават, изключително когато самостоятелни системи вземат финансови решения без човешки надзор.
Източник: dnesplus.bg
КОМЕНТАРИ